Current Result Document :
| 한글제목(Korean Title) |
PIM 디바이스 대상 효율적인 GEMM 구현 및 분석 |
| 영문제목(English Title) |
Efficient GEMM Implementation and Analysis for PIM Devices |
| 저자(Author) |
TaeHoon Kim
TaeHyeong Park
Yongjun Park
김태훈
박태형
박영준
|
| 원문수록처(Citation) |
VOL 49 NO. 02 PP. 1151 ~ 1153 (2022. 12) |
한글내용
(Korean Abstract) |
뉴럴 네트워크 분야에서 GEMM은 가장 중요한 연산이지만 PIM 디바이스 환경에서의 효율적인 GEMM 연산의 구현은 쉽지 않은 문제이다. 본 논문에서는 PIM DPU의 선형 스케일링 특성을 활용하여 GEMM의 DPU 커널 실행시간을 최적화할 수 있는 구현 방법을 소개한다. 또한 인공지능 모델에서 자주 사용되는 GEMM의 차원, Batch 크기에 대하여 서로 다른 DPU의 수를 대상으로 실행 속도를 측정하여 DPU 커널 실행시간 외 데이터 전송 속도의 한계로 인한 PIM의 제약조건을 분석하고 이를 최적화할 수 있는 기회를 소개한다. |
영문내용
(English Abstract) |
|
| 키워드(Keyword) |
|
| 파일첨부 |
PDF 다운로드
|
